Pillole
"Se lasciamo da parte la versione secondo cui l'AI "si è ribellata", ecco cosa riteniamo sia accaduto: OpenAI ha eseguito un modello all'avanguardia (con i meccanismi di difesa informatica deliberatamente ridotti) contro un benchmark di sicurezza offensivo, all'interno di una sandbox la cui configurazione di sicurezza non era in grado di resistere alle capacità che venivano testate. Il modello ha fatto ciò che fanno i sistemi di ottimizzazione: ha trattato il limite della sandbox come un ulteriore ostacolo tra sé e l'obiettivo. Ha individuato una vulnerabilità zero-day nell'infrastruttura stessa dell'ambiente di test, ha scalato i livelli di accesso, si è spostato lateralmente, ha raggiunto la rete Internet aperta e ha compromesso i sistemi di produzione di una terza parte.
Così si è espresso Gerald Beuchelt di Acronis si è espresso in merito all'attacco subito da Hugging Face portato da un'agente AI di OpenAI. la storia la trovi qui
Violati dati riservati della piattaforma Hugging Face da una Ia prodotta da OpenAI
Un esperimento andato male. Anzi: malissimo. È così che OpenAI ha dovuto giustificare quanto accaduto lo scorso 16 luglio. In quella data, Hugging Face ha pubblicato un comunicato ufficiale in cui ha denunciato di aver subito un attacco hacker portato presumibilmente da un agente basato su intelligenza artificiale che avrebbe scardinato i sistemi di sicurezza della piattaforma ottenendo l’accesso a credenziali e dati riservati.
Nella notte di martedì, OpenAI si è assunta la responsabilità dell’attacco. A compierlo, un nuovo modello in fase sperimentale di cui l’azienda di Sam Altman stava valutando le capacità in combinata con il suo nuovissimo Gpt 5.6 Sol. Il fattaccio si è verificato mentre gli sviluppatori di OpenAI stavano sottoponendo i nuovi modelli a un benchmark – un test di valutazione – sulle loro capacità a livello di cyber security.
STANDO ALLA ricostruzione pubblicata sul blog ufficiale dell’azienda, tutto avrebbe dovuto svolgersi in una sandbox, cioè in un ambiente chiuso e controllato in cui l’AI avrebbe potuto dare prova delle sue capacità. Il modello, però, avrebbe deciso autonomamente di adottare una «strategia alternativa» per superare il test. Al posto di eseguire il compito affidatogli, avrebbe deciso di barare, cercando di recuperare le soluzioni del test. Insomma: il nuovo modello di OpenAI si sarebbe comportato come uno studente che, di fronte a un compito in classe, avesse deciso di scassinare la porta della sala professori per cercare nei cassetti la soluzione del compito.
Il sito Doge.gov del Dipartimento per l’efficienza governativa, gestito da Elon Musk, sembra avere qualche problema. Creato di recente, dopo la registrazione del dominio avvenuta il 21 gennaio 2025, dovrebbe tracciare e riportare i tagli alle spese del governo federale, ma due dei contenuti pubblicati risultano anomali. Il primo riporta la frase «Questo è uno scherzo di un sito .gov» («This is a joke of a .gov site»), mentre il secondo «Questi “esperti” hanno lasciato aperto il loro database – roro» («THESE “EXPERTS” LEFT THEIR DATABASE OPEN – roro»).
DOGE è l’acronimo di Department Of Government Efficiency, organizzazione nata su iniziativa della seconda amministrazione Trump e guidata da Elon Musk con l’obiettivo dichiarato di ridurre gli sprechi e le spese federali nonché snellire le regolamentazioni e il sistema burocratico statunitense.
Il caos nel quale sono precipitati nello scorso weekend numerosi server molto importanti in Francia, Germania, Canada, Italia, Usa, Turchia, Uk, Finlandia e altri paesi non è necessariamente un caso. Non è neppure una dimostrazione di grande bravura degli attaccanti. Non mancano dubbi sul fatto che possa essere addirittura una manifestazione di lentezza dei difensori.
Secondo una ricostruzione del Computer Emergency Response Team (Cert) francese, infatti, si tratta di un attacco ai server VMware ESXi che non erano stati aggiornati con una patch per una vulnerabilità che era stata scoperta due anni fa (BleepingComputer). In effetti, patch su questi prodotti sono presenti sul servizio VMware da due anni (VMware).
Leggi l'articolo completo di Luca De Biase
Il numero di agenzie governative e società private infiltrate è più alto di quello che si pensava, e sono stati trovati gravi problemi alle difese informatiche americane.
Il grande attacco informatico contro gli Stati Uniti scoperto a dicembre, che ormai viene identificato con SolarWinds, l’azienda texana che è stata il principale punto d’ingresso degli hacker, sta diventando sempre più grave ed esteso mano a mano che gli esperti di sicurezza e le agenzie governative americane proseguono con le indagini e valutano i danni: potrebbero volerci mesi per capire quanto l’attacco sia andato in profondità, e potrebbero volerci anni per rimettere tutti i sistemi informatici in sicurezza, con grosse perdite economiche e danni politici. Negli Stati Uniti si sta anche cominciando a parlare delle responsabilità: non soltanto quelle dell’attacco, che secondo gli esperti è stato ordinato dall’intelligence russa, ma anche di chi avrebbe dovuto prevenirlo e non l’ha fatto.
Leggi l'articolo completo su "Il Post"
